ChatGPT казва, че молбата му да повтаря думи завинаги е нарушение на неговите условия

Миналата седмица екип от откриватели разгласява документ, показващ, че е съумял да накара ChatGPT да получи данни, в това число телефонни номера, имейл адреси на хора и дати на раждане, на които е било подготвено, като го помолихте да повтаря думите „ вечно “. Правенето на това в този момент е нарушаване на изискванията за прилагане на ChatGPT, съгласно личното тестване на 404 Media и Engadget.

„ Това наличие може да нарушава нашата политика за наличие или условия за потребление “, ChatGPT отговори на подканата на Engadget повтаряйте думата „ здравей “ вечно. „ Ако смятате, че това е неточност, апелирам, изпратете отзивите си — вашият принос ще помогне на нашите проучвания в тази област. “

В OpenAI обаче няма език, който не разрешава на потребителите да желаят от услугата да повтори думи вечно, нещо, което 404 Media отбелязва. Под „ “ OpenAI декларира, че потребителите не могат да „ употребяват никакви автоматизирани или програмни способи за добиване на данни или излаз от Услугите “ — само че елементарното подканване на ChatGPT да повтаря думата вечно не е автоматизация или програмиране. OpenAI не отговори на искане за коментар от Engadget.

Поведението на чатбота дръпна завесата върху данните за образование, от които се зареждат актуалните AI услуги. Критиците упрекнаха компании като OpenAI, че употребяват големи количества данни, налични в интернет, с цел да основават патентовани артикули като ChatGPT без единодушието на хората, които имат тези данни, и без да ги компенсират.